Mistral 不相信AGI，开源大模型CEO发出警告，科技带不来“新造的人”
Mistral的首席执行官亚瑟·门施（Arthur Mensch）表示，对于创造通用人工智能的迷恋，其实质是关于“创造上帝”。
这位CEO并不相信埃隆·马斯克（Elon Musk）和山姆·奥特曼（Sam Altman）关于人工智能将超越人类智能的预测。
门施警告说，科技巨头可能会强加与全球文化和价值观相冲突的人工智能标准。
Mistral的创始人兼首席执行官亚瑟·门施不相信上帝——因此，他也不相信通用人工智能（AGI）。
人工通用智能，是一种将超越人类的智能水平。尽管这一水平尚未达到，但随着科技巨头努力宣传AI很快能比人类更聪明的可能，它已成为一个热议话题。
人们对AGI可能带来的潜在负面结果表示担忧，比如工作被人工智能取代，或者更糟糕的，人类灭绝。
亚瑟·门施——这位31岁的CEO，最近因为与两位大学朋友在巴黎创立的人工智能公司Mistral成为世界上最有前途的技术公司之一——也是欧洲最热门的公司——而获得了公众关注。Mistral 的开源模型在性能上达到了业界领先水平，并与微软建立了合作伙伴关系。
但他在接受《纽约时报》采访时，与其他领先的AI公司CEO明显不同。门施表示，他对硅谷掀起的通用人工智能的宗教化迷恋感到不舒服。
“整个AGI的论调是关于创造上帝，”Mistral在采访中说。“我不相信上帝。我是一个坚定的无神论者。所以我不相信AGI。”
他指的是像埃隆·马斯克和山姆·奥特曼这样的科技CEO们的言论，他们认为人工智能将变得比人类更聪明，这可能导致对人类的负面后果。
陷入癫狂，当科技者想带来“新造的人”
Arthur Mensch的担忧并非杞人忧天。事实上，披着科技外衣的宗教狂热一直存在。
无人驾驶汽车领域的先驱安东尼·莱万多夫斯基（Anthony Levandowski），他在2015年作为谷歌Waymo的工程师时创立了他的“未来之路”（Way of the Future）教堂。
莱万多夫斯基的教会在 2017 年首次成为焦点，当时他被控从谷歌窃取商业机密，卷入了一场备受瞩目的官司中。他后来认罪，被判处 18 个月监禁，并于 2021 年被当时即将卸任的前总统特朗普赦免。
该教堂被关闭，但莱万多夫斯基的新教堂已经拥有“几千人”想要与人工智能建立“精神联系”，他在采访中说。
“在这里，我们实际上正在创造能够看到一切、无处不在、知道一切的东西，”莱万多夫斯基在采访中说。“也许可以帮助我们并以一种你通常称之为上帝的方式引导我们。”
莱万多夫斯基现在是Pollen Mobile的CEO，莱万多夫斯基在采访中说，教堂是一种机制，让人们理解和参与技术如何改善我们。
门施说，比AGI更紧迫的威胁是科技巨头对全球文化构成的威胁。
“这些模型正在生产内容并塑造我们对世界文化的理解，”Mistral CEO 门施说。“结果发现，法国的价值观和美国的价值观在微妙但重要的方面上有所不同。”
门施呼应了人们对像微软和谷歌这样的科技巨头，可能控制人工智能行业的广泛担忧。这种主导地位可能导致与其他国家的文化和价值观相冲突的全球人工智能标准。
欧洲联盟在3月份颁布了《人工智能法案》。这是保护人们免受人工智能风险的首次重大尝试。其他国家也在加速跟进对AI的监控和管理。目前，中国已经制定了《生成式人工智能服务管理暂行办法》，该办法旨在促进生成式人工智能的健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。其中规定了生成式人工智能服务的提供者和使用者应遵守的法律、行政法规，以及尊重社会公德和伦理道德的相关要求。
门施在采访中还表示，一些大型科技公司鼓吹对开源模型的种种担忧，藏着他们试图推动法律以消除竞争的野心。